Probleme cu Gemini, de la Google. Decizia radicală luată de gigant și motivele din spate

Google a anunțat recent că va suspenda capacitatea chatbot-ului Gemini de a genera imagini cu persoane.

Această decizie vine în urma unor postări virale de pe rețelele de socializare care au arătat că instrumentul AI producea imagini cu naziști, părinții fondatori ai Americii și Papa ca fiind persoane de culoare.

„Suntem deja în proces de abordare a problemelor recente legate de funcția de generare a imaginilor pentru Gemini”, a postat Google, pe X.

„În timp ce facem acest lucru, vom suspenda generarea de imagini ale persoanelor și vom lansa în curând o versiune îmbunătățită”, a mai spus gigantul.

Eșecul amintește de un altul „marca Google”, de data aceasta legat de Bard

Google a rebranduit Bard, în speranța de a-i oferi un nou început. Compania a redenumit chatbot-ul Gemini la începutul acestei luni, în speranța că ar putea concura cu ChatGPT al OpenAI și cu Microsoft Copilot.

După ce a promis să remedieze funcția de generare a imaginilor pentru Gemini și apoi a suspendat-o complet, Google a publicat o postare pe blog oferind o explicație pentru de ce tehnologia sa a corectat excesiv diversitatea.

Reacția gigantului

Prabhakar Raghavan, Vicepreședinte Senior al companiei pentru Cunoaștere și Informație, a explicat că eforturile Google de a se asigura că chatbot-ul va genera imagini arătând o gamă largă de persoane „au eșuat”.

În plus, modelul de AI a devenit „mult prea precaut” în timp și a refuzat să răspundă la solicitări care nu erau ofensatoare.

Aceste două lucruri au determinat modelul să supracompenseze în unele cazuri și să fie prea conservator în altele, conducând la imagini jenante și greșite, susține Raghavan.

Google s-a asigurat că generarea imaginilor cu Gemini nu poate crea imagini violente sau explicit sexuale ale persoanelor reale și că fotografiile pe care le produce vor prezenta oameni de diferite etnii și cu caracteristici diferite.